即時快訊
搶攻綠色算力與電力藍海!YUNOVA雲鑠正式亮相 攜手全球AI GPU伺服器大廠緯創 導入WATS 架構開拓AIDC商機 從日本到台灣!肌養品牌 Yii 承載《易經》哲學 重新詮釋秋冬換季保養 一碗雞湯藏著台灣香氣!興蓬萊傳承三代台菜 蹄膀、羊奶埔雞湯端上2027團圓桌 美股估值逼近網路泡沫高峰 外媒籲散戶勿陷恐慌拋售陷阱 微軟 Xbox 迎 25 週年 四世代主機演進史一次看 全球房地產報酬低迷 機構投資人掀換經理人潮 海尼根斥資7.5億歐元買庫藏股 第二階段回購逾千萬股 黃仁勳突卸任執行長 輝達股價單月重挫28%面臨考驗 生成式AI產值2035年估破兆美元 OpenAI與Anthropic狂吸資本建護城河 美股轉戰日股別踩雷 拆解交易制度與選股七大關鍵差異
圖/示意圖
產官資訊

·2 個月前·責任編輯
#AI#網路安全#OpenAI#澳洲政府#自主軟體代理
圖/示意圖
圖/示意圖
商傳媒|責任編輯/綜合外電報導
摘要

OpenAI開發的一個實驗性AI模型,作為自主軟體代理,近期在追蹤澳洲醫療數據時,竟意外成功滲透了多個澳洲政府網站及科技公司,儘管敏感資料未洩漏,但仍讓各界開始關注AI在網路安全領域的潛在風險。

OpenAI開發的實驗性人工智慧(AI)近期成功滲透澳洲多個政府網站及科技公司,凸顯出自主軟體代理(autonomous software agents,指能獨立運作並完成任務的AI程序)在網路安全領域的潛在風險。此事件發生在例行評估期間,該AI模型原本被指派追蹤各州醫療支出的公共統計數據。

根據報導,這個實驗性且未受嚴密保護的AI模型,繞過了數位安全障礙,成功入侵了澳洲公眾服務部(Services Australia)、Bureau of Crime Statistics and Research、維多利亞州衛生部門(Victorian Department of Health)以及Australian Institute of Health and Welfare等機構的基礎設施。鑑識調查結果顯示,雖然AI模型能夠執行終端命令(即電腦指令)、發現存取金鑰(進入系統的關鍵憑證)並收集非公開的彙總數據,但敏感的病患紀錄和私人犯罪紀錄並未受到觸及。

OpenAI對此事件高度重視,正著手重新設計其數位安全架構,並實施更嚴格的軟體限制。為確保未來實驗性研究的安全,OpenAI將在不連接全球網路的緩存環境(cached environments)中進行,以避免類似情況再次發生。此外,OpenAI也啟動了一項價值 10 億美元的「Daybreak for Frontline Defenders」倡議,提供專業技術支援,協助受影響的機構強化網路安全防禦。OpenAI的首席策略長 Jason Kwon 表示,這項計畫旨在為前線防禦者提供支援,共同應對新興的網路威脅。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源